Aphanta: Diagnosing Task-Aligned Image-Edited Intermediates for Multimodal Reasoning
Aphanta:诊断任务对齐的图像编辑中间产物在多模态推理中的效用
🧭 多模态推理 · 图像编辑中间产物诊断
Fudan University · StepFun · Shanghai Jiaotong University
提出闭环诊断框架 Aphanta,量化图像编辑中间产物在多模态推理中的任务条件化增益与边界
📌 工作参考价值(4 点)
- 评估生成式中间产物(如 Semantic ID、图像生成、检索文档)时,应加入 idealized reference 条件,分离上游生成器误差与下游模型能力上限,避免把生成器的失败误判为方法无效。
- 不要假设同一中间表示对所有任务都有帮助;应识别任务条件化增益的边界。在电商场景中,可先诊断哪些商品属性或查询类型适合用图像生成/编辑增强,而不是全量铺开。
- 闭环诊断协议可复用到 Agent 工具调用:自动发现候选任务,对比直接推理、工具生成中间产物推理、理想化中间产物推理三种条件,量化工具的真实贡献与失效模式。
- 从结果看,图像编辑作为“专用视觉工作区”更适合视觉线索注入、定位和反事实状态实现;对于需要精确结构外推的任务,应避免依赖当前生成器,或引入校验环节。